长程持续学习中的 Harness-模型协同框架
🧭 Agent 持续学习 · 经验检索与参数更新协同
Huzhou Normal University · Alibaba Group · Zhejiang University · Ningxia University
HaMo 将轨迹蒸馏为策略经验卡供即时检索，并以经验条件持续学习目标实现快慢协同，提升长程 Agent 的保留与迁移能力。
📌 工作参考价值（4 点）
- 在电商/Web agent 中，把成功购物、搜索、交易等多步轨迹压缩成策略级经验卡（目标、前置条件、操作步骤、适用上下文），检索时按当前任务上下文召回，而不是直接存原始 log，可降低噪声并提升跨任务复用。
- 采用快慢结合：线上先走非参数记忆即时复用，离线用检索覆盖度筛选「紧凑且互补」的少样本轨迹做参数更新，避免频繁全量训练和遗忘；该思路可直接迁移到推荐系统的持续学习/增量训练。
- 经验条件训练目标可迁移到 RAG-style agent：不仅把检索到的策略拼进 prompt，还要用专门目标让模型学会读懂检索结果、判断其是否适用、并按策略执行，这比单纯加外部 memory 更稳定。
- 若做导购、push 文案、搜索 query 生成等长程任务，可建立跨 session 流程经验库，按场景召回候选策略，再用小模型微调内化，兼顾线上 latency 与跨域泛化。
持续学习基准：评估 LLM 智能体的长周期经验学习能力
🧭 LLM Agent 持续学习能力评估
University College London
构建 600 级递进任务基准，量化诊断反馈与修订对 LLM 智能体经验学习的作用
📌 工作参考价值（4 点）
- 在电商智能体（如客服、选品、广告优化）的设计中，可以采用「多级递进任务」框架：让 Agent 先完成简单任务，成功后再解锁更复杂任务，从而在任务流中自然积累经验，而不是一次性给出完整任务。
- 引入「失败后诊断反馈 + 一次修订」的机制，能带来中位数 5.3 个百分点的完成率提升；实际系统中可设置轻量级反馈循环，让 Agent 在失败时获得针对性的错误分析并重新生成一次，成本可控。
- 评估智能体时，不要只看单个 task 的准确率，而应关注跨时间、跨任务的改进幅度和知识保留；这更贴近推荐/广告系统中连续决策、用户反馈驱动的真实场景。
- 该基准数据可用于后训练 LLM 以增强持续学习能力，从业者可以考虑将业务日志中的成功/失败案例转化为类似的阶梯式训练样本。
HERD：面向持续学习的 Harness 演进递归蒸馏
🧭 持续学习混合框架 · 递归蒸馏
Monash University · University of the Sunshine Coast
提出混合持续学习框架 HERD，用 harness 技能库与有界残差记忆结合双锚漂移约束蒸馏，实现新任务获取与低遗忘。
📌 工作参考价值（4 点）
- 在电商/Agent 持续迭代中，可借鉴「skill/harness + 有界高残差样本库」做快速适配：新任务/新类目先用上下文技能处理，只把模型反复出错的高价值样本沉淀为记忆，避免全量重训。
- 蒸馏策略：定期把 harness 记忆蒸馏回基座模型时，采用双锚点（初始 checkpoint + 上一版蒸馏模型）做漂移约束，能缓解长时间递归更新中的遗忘，适合需要频繁发版/增量训练的推荐模型或 Agent policy。
- 资源固定：HERD 在固定 memory 与 compute 预算下运行，给生产环境提供了一个可落地的约束范式：不无限增长上下文/记忆，通过递归蒸馏滚动内化经验，保持线上成本稳定。
- 注意：论文面向通用 LLM 持续学习，不是推荐系统专用；但其中「技能库 + 残差记忆 + 双锚蒸馏」的架构可迁移到多域推荐、搜索 query 策略或客服 Agent 的持续优化。
Jev-DLC：基于类型化反馈的决策级持续学习
🧭 持续个性化 · 类型化反馈有界状态
The Hong Kong University of Science and Technology (Guangzhou) · Sun Yat-sen University
用接受/撤销类型化反馈构建有界状态，在冻结评分器上实现低开销持续个性化决策
📌 工作参考价值（4 点）
- 将用户 accept/revoke 操作抽象成“选中动作 + 被替换动作”的成对反馈，用有向关系存储，适合电商推荐“换一换”、广告主拒单/改投等场景，直接用于在线修正排序偏好。
- 方法不存原始行为日志、不加一次 scorer 推理、不做在线反向传播，仅维护有界状态（可限制大小），对高 QPS 推荐/广告系统友好；可把该模块作为轻量级个性化插件放在已有精排模型之上。
- 互补双通道设计（动作身份证据 + 偏好关系）比单一历史重放更抗噪声，且在反馈稀疏时仍能稳定提升；可借鉴到用户级表示更新或 pairwise ranking 中，比单纯累积正例更有效。
- TCPA-Bench 的时序评估方式强调“只有影响后续决策才计分”，适合用来验证持续学习/在线学习系统，避免传统离线评估高估模型效果。
面向 AI Agent 的记忆中心持续学习
🧭 Agent 记忆与持续学习
提出以记忆是否改进未来行动为核心的三轴分类、双循环生命周期与评测协议
📌 工作参考价值（4 点）
- 将记忆系统从“能检索到什么”转向“是否改善下游动作”，在推荐/广告 Agent 中可定义以最终转化/点击增益为记忆更新信号，而非仅记录历史会话
- 采用双循环生命周期：内层快速更新交互记忆（如用户偏好、上下文），外层以任务反馈（如 session 成功率）调整记忆写入、淘汰、检索策略，可类比在线学习中的 meta-policy
- 借鉴三轴分类（substrate/ asset/ policy）对现有 RAG、向量库、参数微调等记忆方案做架构审计，明确不同记忆的存储位置、资产形态与管理策略，避免混用
- 资源分配框架可用于决定非参数记忆（向量库）与参数记忆（LoRA 模块）的容量与读取预算配比：当总预算增长时，按最优路径扩增容量与读取资源，而非盲目加大 retrieval top-k 或模型参数
WeAct：动态权重切换作为 Agent 动作
🧭 Agent 模块化 LoRA 动态切换与持续学习 ★ 深度解读
Carnegie Mellon University · Duke University · Meta MSL
把 LoRA 适配器切换做成 Agent 原生工具调用，冻结主干独立训练 Plan/Search/Writing 模块，在 deep-research 任务上超越全参微调和静态合并
📌 工作参考价值（4 点）
- 把流程阶段拆成可独立训练、可工具调用的 LoRA：电商/搜索 Agent 可将意图规划、商品检索、参数对比、文案生成等阶段分别训成 Plan/Search/Write 类 adapter，通过 load_lora/offload_lora 工具调用按需切换；新增能力只需注册新 adapter，不动已有链路。
- 运行时选择优于静态合并：论文显示 TIES/DARE-TIES/TSPA 等静态 LoRA 合并均导致专业化损失，甚至在无 rank 压缩下也有局部 mismatch。业务中若已有多能力 LoRA，建议保留独立 adapter 并在推理时切换，而非合并成一个固定权重。
- 工程实现复用原生 tool-calling 接口：用 MCP 工具注册权重切换动作，不需要单独训练 router 或改造 forward pass；adapter 常驻 GPU，切换时重建 KV cache，控制开销仅占 soft/hard 总时间的 8.2%/2.8%。
- 模块化持续学习可落地到频繁迭代的环节：只刷新 Writing adapter 即可提升报告质量，backbone 和其他 adapter 保持不变，无需回放历史数据；适合在商品文案生成、搜索 query 改写等单一能力上做局部优化而不污染整体。
面向持续学习：通过子空间调优减轻遗忘
🧭 持续学习 · 子空间约束微调 ★ 深度解读
UC Berkeley · Mila · McGill University · Université de Montréal · UMass Amherst
通过将权重更新限制在低能量奇异子空间，SST 有效减轻 LLM 微调中的灾难性遗忘
📌 工作参考价值（4 点）
- 在业务中微调 LLM 以适应新领域或任务时，可引入 SST 保护已有通用能力，避免上线后基础能力下降，尤其适用于需要持续更新的推荐/广告模型。
- SST 与优化器无关，只需对优化器最终更新做投影，可直接嵌入现有 SFT/RLHF 流程，无需修改损失函数或数据，工程实现成本低。
- 保护主导奇异方向可显著减少对基模型的 KL 漂移（2-4 倍），有助于保持输出分布的稳定性，对在线学习或 A/B 测试更友好。
- 在顺序学习多领域任务时，SST 能够累积能力而非互相覆盖，适合构建多能力融合的模型或专家合并场景。
Cortex：将上下文收益固化进 LLM 参数记忆
🧭 LLM 记忆固化 · 参数更新 ★ 深度解读
Zhejiang University · ByteDance Seed · Tsinghua University
用前瞻性重演与 FFN-only 低秩/结构化更新，把上下文增益蒸馏为可堆叠的参数记忆，兼顾 CR 与 RR
📌 工作参考价值（4 点）
- Agent 经验与临时规则沉淀：可把商品知识、活动政策、API 文档、成功轨迹等上下文，先用冻结模型生成“预期查询+上下文条件回答”，再蒸馏到 0.74M–2.73M 的小型 FFN adapter；无需把完整上下文塞进 prompt 或检索库，适合高频、确定性的商户规则/接口知识固化。
- 架构选择：只更新 FFN/MoE，冻结 attention、router 和 backbone；Structural 新增非线性通道比低秩 Synaptic 更擅长代码/API 类可复用过程，且 MoE 用 shared branch 给所有 token 直接训练曝光，减少遗忘、提升 CR。
- 训练目标 trick：用 top-K_v 截断 KL + 对齐后 FFN hidden-state MSE 监督，teacher 带上下文、student 不带；这对少样本、要保 base 能力的高保续更新很有效。历史 query replay 只留 query、不存 context，降低隐私和存储成本。
- 落地边界：CR/RR 的权衡在实体邻近知识上仍明显，组合推理/可移植性（portability）是短板；建议只固化高频、低歧义技能，开放生成仍保留 RAG/prompt 兜底。
合成自蒸馏实现小模型持续后训练
🧭 持续后训练 · 合成自蒸馏
KAIST AI · LG AI Research
提出合成自蒸馏，通过稍大同家族模型生成in-distribution监督，解决小模型持续后训练中获取与遗忘问题
📌 工作参考价值（4 点）
- 在电商/搜索场景持续更新轻量级 query 理解或 on-device 模型时，可借鉴「同家族稍大模型生成 in-distribution 伪标签」的蒸馏方式，避免直接使用真实用户反馈造成分布偏移和旧知识遗忘。
- 使用 rejection sampling 过滤低质量合成样本，能提升伪标签可靠性，适合电商/搜索中大量噪声标签或弱监督数据的场景。
- 持续学习前先量化模型输出分布偏移，发现偏移过大时强制启用 in-distribution 重写或防遗忘策略，可部署为在线监控指标。
- 低延迟场景（如移动端推荐特征提取、query 改写）可线下用稍大模型生成高质量训练数据，线上仅部署小模型，兼顾效果与推理成本。
冻结模型，进化专长：从部署经验中做模型无关的多模态医学AI学习
🧭 冻结模型外部经验持续学习 ★ 深度解读
University of Maryland, College Park · NVIDIA
提出参数无关外部专长框架，让冻结LLM/VLM从部署经验中持续提升并跨模型迁移
📌 工作参考价值（4 点）
- 在线 Agent/导购/客服：用 LLM optimizer 从成功/失败轨迹重写 Skill 文档而非 append，控制长度、消解冲突规则；候选 Skill 上线前用「下一批新流量 + 历史代表性 buffer」联合验证，接受条件为新样本平均收益>0、历史平均收益≥0、且 win>=loss，防止 prompt 过拟合固定验证集。可套用于搜索 query 改写策略、导购话术策略。
- 商品/内容多模态：维护 MMKB 式视觉记忆库，保存商品图+已知结论（类目、属性、违规、点击/转化标签），检索后用明确 prompt 让模型比较参考图证据与当前图的差异/缺失/矛盾，而不是只把图塞进上下文。实验显示同样 references，仅当上下文会让视觉任务分数下降，加比较分析后才转正；可迁移到商品图质检、主图优选、属性抽取。
- 知识与事实记忆：把可靠事实以「证据+适用条件」存入外部 Knowledge Memory，查询时先检索再检查是否直接回答且适用；只有多案例支持或有可信外部来源才入库。可做电商规则库、广告合规知识、平台政策问答的持续更新。
- 经验外置可无缝迁移到新基座/新模型版本，冷启动成本低；换 LLM 供应商或升级模型时，无需重训，直接复用 Skill/Memory/MMKB，对正在 A/B 不同底座或多租户模型选型的团队有用。
EVISKILL：基于可回放证据的 Agent 持续技能演化
🧭 Agent 持续技能进化与证据回放
School of Artificial Intelligence, Jilin University, Changchun, China
用可回放证据卡与定向重放验证技能编辑，缓解经验驱动技能演化中证据丢失和全局验证粒度过粗问题
📌 工作参考价值（3 点）
- 把 agent 执行轨迹中的 state/action/observation/context 打包成结构化证据卡，技能修改时显式绑定支撑证据；后续可用同一批轨迹做定向重放验证，让技能更新可审计、可回滚。
- 将验证拆成编辑级回放与全局验证两层：先用局部证据筛选出可信候选修订并暂存，再按整体任务集决定是否并入正式技能，避免一次性拒绝丢失有效局部修正；适合电商客服 SOP、选品策略等需要长期迭代 agent 流程的场景。
- 跨 epoch 保留证据和候选修订，允许证据不足的编辑等待更多交互经验再确认，提供一种更稳的 agent 策略在线进化机制；对推荐策略、工具选择规则等可复现程序知识的维护有价值。
局部支持学习：无需旧数据的持续学习与遗忘缓解
🧭 持续学习 · 灾难性遗忘缓解
Tel Aviv University · MIT CSAIL
提出 Local Support Learning，用 GMM 门控使 adapter 只在当前分布激活，无需旧数据缓解大模型灾难性遗忘
📌 工作参考价值（4 点）
- 对线上推荐/搜索模型做持续增量更新时，可用 LSL 的 adapter + GMM gate 结构：每个新数据周期训练新 adapter，gate 让 adapter 只在当前数据分布上激活，旧分布数据自动路由到原始权重，无需回放旧数据即可缓解遗忘。
- GMM 门控比普通 MLP classifier 更适合 OOD 拒绝，因其似然在训练分布外快速衰减。在推荐系统多任务/多领域路由中可借鉴：为每个领域/任务建 GMM 门控，实现软路由与分布漂移检测。
- 方法内存和计算高效，支持 7B 参数模型，可迁移到生成式推荐（如 Semantic ID 生成）的持续学习场景：新类目上线时只增加局部 adapter，不破坏旧类目生成能力。
- 工程实现上，GMM 的均值/方差可流式更新或 EMA 维护，避免存储原始激活，适合实时更新的推荐系统。
信息近端自蒸馏用于LLM持续学习
🧭 LLM 持续学习 · 信息约束自蒸馏
Georgia Institute of Technology · Imperial College London · Politecnico di Torino · UCL Centre for AI
提出iSDFT将教师视为预算信息源，在每步选择满足信息约束的最近分布，提升LLM持续学习中稳定性与可塑性的平衡
📌 工作参考价值（4 点）
- 在电商/推荐场景中，当用新数据微调LLM（如用于query理解、内容生成、推荐理由）时，可采用iSDFT的“信息预算”思想：对每个token动态决定从教师（新任务模型）吸收多少信息，避免新策略完全覆盖旧能力，尤其适合需要持续更新但必须维持基线性能的线上系统。
- 锚定冻结基础模型（frozen base policy）的做法可作为一个轻量正则化项加入现有微调损失，实现简单且可稳定训练，有助于在迭代推荐模型时控制累积漂移，减少对旧用户行为模式的遗忘。
- 闭合形式的指数目标（exponential tilting）无需额外优化循环，工程实现成本低，可直接用于LLM4Rec的在线学习或定期更新，平衡稳定性和塑性。
- 该方法对多任务、多模态的推荐系统持续学习有借鉴意义：可以按任务重要度设置不同的教师信息约束，实现可控的旧知识保留和新知识注入。
CERA-MoA：路由与持续学习智能体协同演化框架
🧭 多智能体路由与持续学习协同
IIIS, Tsinghua University · School of Artificial Intelligence, Shanghai Jiao Tong University · Shanghai Qi Zhi Institute
提出 CERA-MoA，让 MoA 中动态路由器与智能体策略通过强化学习协同演化，并用隐藏状态预测熟悉度实现高效路由
📌 工作参考价值（4 点）
- 在电商/搜索的多智能体架构中，路由策略不应固定：可借鉴 CERA-MoA 让 router 与专家 agent 在线/离线同步更新，将用户 query 分发逻辑与各领域专家（如类目导购、价格对比、营销文案）的真实能力变化对齐。
- 用中间层隐藏状态做“熟悉度”估计，避免完整 rollout 才能判断 agent 是否适合处理某类请求；实际在线系统可训练 lightweight 打分器，毫秒级实现动态路由和成本控制。
- 累积阈值激活最小 agent 子集，可移植到集成推理/多模型打分场景，按 query 难度动态调用 1~N 个模型，在效果与 latency/成本间自动权衡。
- 按 evolving competence 主动分配训练样本可促进专家差异化，适合多领域商品推荐或意图分类中的专家持续训练，防止 cold-start 和同质化。
生成式推荐的自进化记忆框架 LION
🧭 生成式推荐 · 持续学习与记忆隔离 ★ 深度解读
National University of Singapore · Meta AI
用稀疏 KV 记忆层隔离不同用户行为模式的梯度，缓解生成式推荐持续进化中的进化冲突
📌 工作参考价值（4 点）
- 在持续更新生成式推荐或 LLM4Rec 模型时，不要直接全参 fine-tune；可以插一个固定大小的稀疏 KV 记忆层，用 Top-K 激活按用户行为模式路由，隔离头部/长尾梯度冲突，避免高频用户主导模型更新。
- 想强化长尾或低频行为，可加 consolidation loss：对记忆增强后的用户表示直接预测 next item；注意该 loss 必须加在“隔离后的表示”上，直接加在共享 backbone 反而会引入额外梯度冲突。
- 做用户长期偏好建模可用“全序列 query + 近期窗口计算”的非对称设计：仅用完整历史去激活记忆 slot，主 Transformer 仍只消费最近几条交互；既能捕捉长期行为模式，又不增加推理序列长度。
- 稀疏 KV 记忆参数固定为 2Nd，不随用户规模增长；实验表明 N=4096,K=32 与 N=65536,K=8 性能几乎一致，工程上可大幅压缩参数，替代 per-user embedding 或 LoRA，降低部署成本。
持续学习机制组合实现长期记忆
🧭 持续学习机制组合与长期记忆
Johns Hopkins University
组合数据/函数/权重 anchor 与 merged LoRA 将 100 任务顺序微调平均保留率从 1.2% 提升至 34.9%
📌 工作参考价值（4 点）
- 模型需要持续更新商品目录或用户行为时，可采用 merged LoRA 为每个新任务/新领域分配独立低秩矩阵，避免直接覆盖全量参数，再定期合并或推理时加权组合，减少灾难性遗忘。
- 借鉴 data anchor：在每次更新时混入少量历史代表样本（或合成回放），即使无法保存完整旧数据，也能显著提升长期保留率；对电商场景可保存高价值/长尾样本的小型 memory buffer。
- 多种机制存在超加性交互，尤其 data anchor + merged LoRA。工程实现上不要单独评估单一策略，应组合验证，并使用 factorial 实验量化主效应与交互作用。
- 任务级 successive halving 搜索设计空间成本可控，适合在业务中快速筛选持续学习策略组合，再投入完整训练。
EVOHARNESSBENCH：评测 Agent 应对演进式 Harness 的基准
🧭 Agent 评测基准 · Harness 演化
Salesforce AI Research
首个将非平稳性置于外部 Harness 的 Agent 评测基准，揭示工具/技能/智能体扩充带来的遗忘与适应冲突。
📌 工作参考价值（4 点）
- 在电商 Agent 系统中新增工具、技能或子 Agent 时，必须配套回归评测：将旧任务集作为固定验证集，持续监控新版本上线是否导致旧能力退化（harness-induced forgetting）。
- 工具/技能库应按版本管理，支持回滚；新增能力时优先采用可插拔、模块化设计，避免全局改写路由或提示导致旧行为被覆盖。
- 自演化经验回放并非总能提升适应能力，尤其在工具/技能高速迭代时；可考虑按能力轴隔离经验池，或对历史经验做衰减加权，而不是简单均匀回放。
- 业务中“保留旧能力”与“快速适应新能力”可能冲突：部署评估（只测旧任务）和适应评估（只测新任务）需同时报告，不能仅看总体分数。
知何时不复用：自主 LLM 后训练中的条件经验迁移
🧭 自主 LLM 后训练经验迁移控制
Alibaba Cloud Computing
提出 BCIT 方法，在自主 LLM 后训练中只授权可迁移的历史更新，减少有害复用并提升同预算下最终模型质量
📌 工作参考价值（4 点）
- 持续训练或自动更新线上模型时，不要将历史训练更新（数据配比、超参、LoRA 模块）视为无条件成功经验；应记录父模型版本、数据分布、训练阶段，并将每次效果与其来源上下文绑定。
- 在正式改变权重或晋升模型前，先做有界小规模训练试验，验证候选更新在当前父模型状态下是否仍然有效，避免错误更新进入线上后污染后续训练轨迹。
- 对已知硬冲突（如数据源、工具 schema、任务定义变化）建立命名规则，在候选生成阶段直接否决，节省算力并降低风险；所有候选共享统一采纳门槛，只有真实观察事件才进入经验记忆。
- 对 Agent 自动迭代工具调用、prompt 更新或模型微调的场景，可借鉴“条件经验复用”思路：经验不是越多越好，关键是在当前上下文中可行动。
SPARCL：谱分区解析持续学习
🧭 持续学习 · 谱分解冻结核心子空间
University of Sheffield
识别解析持续学习中的谱干扰问题，通过冻结高能核心子空间并在残差块上递归最小二乘更新，实现闭环解与旧类 logits 核心贡献不变性
📌 工作参考价值（4 点）
- 在推荐/广告模型的增量更新中，可对特征自相关矩阵做谱分解，冻结高能量方向（对应用户主流兴趣、物品核心属性），仅在残差子空间用递归最小二乘（RLS）更新，减少对旧知识干扰。
- 用 RLS 闭式解替代梯度下降做在线更新，计算快且无需存储旧样本，适合高吞吐实时场景（如新物品冷启动、新活动不断上线）。
- 残差随机投影扩展为每个新任务/新产品增加轻量子空间，不干扰核心部分，可作为类似 LoRA 的模块化扩展策略。
- 注意：本文针对分类任务，推荐系统直接迁移需改造，但“谱分区+冻结核心+残差更新”的架构思想值得借鉴。
SCoRD：语义辅助的 LLM 推荐检索-重排持续蒸馏
🧭 LLM 检索-重排持续协同蒸馏 ★ 深度解读
Korea University · University of Illinois at Urbana-Champaign · Sungkyunkwan University
提出语义意图助手与三阶段持续蒸馏，让 LLM 重排与轻量检索器在非平稳流中低成本高效协同更新
📌 工作参考价值（5 点）
- 在带 LLM 重排的检索-重排线上，不要对每个新数据块做全量蒸馏：用 retriever 序列内 item 对齐置信度筛选 bottom 20% 的低置信序列做 LLM 蒸馏，能显著降低 LLM 调用和训练成本，同时把增益集中在困难样本上。
- 把 LLM 的语义推理从 free-form generation 改成「动态意图记忆 + 多标签选择」，可复用为商品的 intent/兴趣标签系统；意图向量可以注入 retriever 的序列表征，增强 ID 模型的语义判别力，且推理端几乎没有额外延迟。
- 在 retriever 每日在线更新时，不重新调用 LLM，只聚合行为相似用户序列的意图分数作为 collaborative pseudo-label，能提供稳定语义监督；适合电商/信息流里每天冷启动或新增序列频繁的场景。
- 用相邻周期意图直方图差分识别衰退意图，再从 retriever 候选集里按 intent 后验采样负例，替代随机负采样，可更有效地捕捉用户偏好漂移，适合替代现有召回/排序模型中的负采样策略。
- 新用户无历史行为时，意图级语义先验能明显提升冷启动效果；可在用户冷启动阶段直接用 LLM 打好的 intent 标签作为特征或约束。
Harness 持续学习：冻结模型下 Agent 外部状态的持续进化
🧭 Agent 持续学习 · Harness 进化 ★ 深度解读
State Key Laboratory for Novel Software Technology, Nanjing University, China · University of Wollongong, Australia
将持续学习对象从模型参数转向 Agent 外部 harness，通过 guarded evolution 显式控制 harness-level 遗忘
📌 工作参考价值（1 点）
- 在 Agent 系统中引入 guarded evolution：将 harness 更新（prompt、memory、routing 等）与部署分离，设置历史锚点集（anchor set）作为回归测试，只有通过当前改进、历史保留和有效性检查的新配置才上线，避免线上行为退化。\n- 借鉴四组件设计：Task Interface, Experience Memory, Capability Map, Adaptive Router 可以映射到电商/搜索推荐系统的 Agent 编排层，把用户意图解析、历史交互记忆、可用工具/策略注册、决策路由分开管理，便于持续迭代和故障定位。\n- 通过调节 historical-loss tolerance Bn 控制稳定性-可塑性权衡：在大促等需要快速适应新玩法时放宽 Bn，在稳定期收紧，实现业务节奏的灵活控制，而不是一味追求最新任务的最优。\n- 利用 LLM 从原始交互中总结抽象记忆、再提炼为可复用内部技能（inner skills），可迁移到自动从用户反馈中提炼推荐策略、生成推送文案或 query 推荐模板，形成持续进化的策略库。
持续学习的范式转变：从参数中心到系统级适应
🧭 持续学习 · 系统级适应框架
Institute of Automation, Chinese Academy of Sciences · National University of Singapore · Tsinghua University · Shanghai Jiao Tong University · Alibaba Group
提出三轴框架（何时、如何、何处）刻画持续学习从参数更新到系统级适应的演进
📌 工作参考价值（4 点）
- 系统级在线更新：推荐模型可将部分能力外置到记忆库或技能库中，新知识通过写入外部存储而非修改模型参数来实现，避免灾难性遗忘，适合高频变化的电商场景（如新品冷启、大促策略调整）。
- 推理时自适应：借鉴 test-time training 思想，在推荐服务推理阶段根据当前上下文（如用户实时行为）快速调整模型子集或 prompt，无需完整重训，降低延迟并提升实时性。
- 多策略混合更新：结合 off-policy（历史数据回放）与 on-policy（在线交互）更新，利用 LLM 驱动的 Agent 生成合成交互数据，平衡稳定性和探索，适合搜索广告的竞价策略持续优化。
- Agent 交互协议：将推荐系统组件（召回、排序、出价）作为 Agent，通过标准化协议交换记忆和技能，实现不同模块的独立持续进化，提升整体系统的长期适应能力。
持续技能基准：评估LLM智能体能否真正进化其能力
🧭 Agent连续技能学习评估 ★ 深度解读
Institute for Artificial Intelligence, Peking University · Beijing Institute for General Artificial Intelligence
构建动态评估框架，揭示顺序执行提升性能但技能库维护未显著超越纯上下文学习，技能泛化仍难
📌 工作参考价值（4 点）
- 纯上下文学习可替代复杂技能库：在电商Agent的工作流中，对于简单的顺序任务（如用户意图识别→商品推荐→生成文案），直接利用对话历史和反馈的上下文学习表现与维护显式技能库相当，可以简化系统设计，避免技能库膨胀。
- 警惕技能碎片化：弱模型容易生成大量任务特定技能且复用率低，导致检索负担加重。可以设计技能合并策略（如定期聚类相似技能并泛化）或设置技能池容量限制，通过淘汰低频技能来维持效率。
- 任务流设计需注入技能依赖结构：通过构建任务依赖图并按拓扑排序安排任务顺序（难度递进 + 技能复用），能显著提高技能覆盖率和转移机会，这在推荐系统的多阶段流程（召回→粗排→精排→策略）中可借鉴，使上游产出的特征或知识能被下游利用。
- 评估指标可移植：任务重用率和核心技能覆盖率可作为量化连续学习环境质量的指标，用于检测推荐序列中是否存在有效的知识迁移路径。
Omega-S：仅用权重矩阵的正则项缓解 LLM 微调遗忘
🧭 LLM 持续学习防遗忘正则化
Biome Makers Inc.
仅从权重矩阵计算拓扑正则项，无需旧任务数据或旧权重，使 LoRA 微调保留率从 62.9% 提升至 84.1%
📌 工作参考价值（4 点）
- 轻量微调防遗忘：在电商/搜索推荐模型进行领域微调时，可作为一个无数据依赖的正则项，避免基础能力衰退，只需在训练循环中添加三行代码，额外开销小于 4%。
- 简化实现路径：论文揭示实际有效成分是节点度方差惩罚，业务中可直接实现该方差项，无需完整拓扑构建，降低工程复杂度。
- 适配 LoRA 微调场景：方法在 LoRA 微调下验证有效，适合当下主流的高效微调范式，可直接嵌入现有推荐模型微调流程，防止对新任务过拟合而丢失原推荐质量。
- 基线对比价值：提供了与 weight decay、EWC 的详细对比，若需在业务中引入持续学习正则，可优先尝试 Omega-S 简化版。
世界建模向何处去：面向持续进化智能体的交互式世界代理
🧭 Agent 世界代理与持续进化框架 ★ 深度解读
Shanghai AI Laboratory · Zhejiang University · National University of Singapore
将世界模型重构为以智能体为中心的世界代理，通过六种功能形式和三个赋能级别驱动智能体持续改善
📌 工作参考价值（4 点）
- 在推荐/搜索智能体中，可构建记忆代理（检索用户历史行为序列）、执行代理（模拟点击后页面状态）、奖励/验证代理（评估推荐内容的安全性或满意度），在推理时增强上下文（L1），或在训练时提供奖励/批判信号（L2）。
- 将世界代理定义为信息转移而非物理状态预测，设计可查询的反馈接口：例如，智能体在生成推荐理由前，可向验证代理查询“该理由是否合规/存在风险”，代理返回验证结果，避免直接线上试错。
- 借鉴 L3 代理-智能体共同进化：线上真实用户反馈（点击、停留、转化）持续更新世界代理（如刷新记忆库、调整风险模型），并将更新后的知识蒸馏回推荐策略，实现持续在线学习。
- 工程上采用模块化代理设计：每种代理（动力学、空间、执行、记忆、技能、奖励）独立维护，通过统一的信息转移接口为智能体提供反馈，便于迭代和扩展。
面向量化金融大模型的稳定性感知记忆编辑器
🧭 量化LLM的序列记忆编辑稳定性
Indian Institute of Technology Madras, Chennai, India · University of Birmingham, Birmingham, United Kingdom
提出CACHE-UK框架，通过低秩适配器、领域优先模块和稳定性控制器，缓解4-bit量化LLM在序列编辑中的灾难性遗忘
📌 工作参考价值（4 点）
- 量化推荐模型的实时事实更新：在电商推荐中，商品信息（价格、库存、描述）频繁变化，可在4-bit量化部署的LLM推荐模型上借鉴CACHE-UK的rank-1 LoRA机制，将更新隔离在低秩子空间，避免全参数扰动引起的推荐质量雪崩。
- 抗遗忘的增量知识注入：稳定性控制器跟踪“退化债务”的理念可迁移到推荐模型的持续学习，当新商品或活动上线时，通过闭环监控减少对已有用户兴趣建模的覆盖。
- 内容自适应的编辑强度：领域优先模块根据输入内容调整编辑幅度，可类比于推荐中不同物品类型（爆款 vs. 长尾）采用差异化的更新步长，提升精细控制。
- 低资源下的工程可行性：整套框架专为量化模型设计，适合边缘推理或低延迟场景，可参考其适配方案让推荐模型的在线事实更新更省资源。
在线策略优化中验证器诱导的支撑重塑
🧭 RLVR在线策略优化的能力保持问题
Peking University · BUPT
在线RLVR优化单一目标会缩小后续任务可采样成功轨迹，导致pass@1与best@k背离
📌 工作参考价值（4 点）
- 多目标 RLVR/RLHF 后训练时，同时监控 pass@1、best@k 与“有成功轨迹的 prompt 比例”，避免平均奖励上升但尾部任务支撑塌缩。
- 对搜索/推荐 Agent 的指令遵循或格式约束训练，RLVR 可能只重排已有开头 token 而非生成新能力；可对前几个 token 加多样性正则或保留基座策略的开头分布。
- 顺序多目标训练（如先数学后 IF）应在每个阶段保存 checkpoint 并评估跨任务 best@k；参考策略约束、路由先验、蒸馏只能部分缓解，建议显式混合数据或联合验证器。
- 若用 RLVR 做转化/点击奖励的 on-policy 优化，需防止模型为提升即时反馈而牺牲搜索/检索友好性；可在 reward 中考虑前几个 token 的信息量或可搜索性。
UI-MOPD：面向持续GUI智能体学习的多平台在线蒸馏方法
🧭 GUI Agent 持续学习与跨平台适应
Tsinghua Shenzhen International Graduate School, Tsinghua University · Xiaomi · Harbin Institute of Technology, Shenzhen · Zhejiang University · Peng Cheng Laboratory
提出多教师在线蒸馏持续学习框架，动态选择平台教师，缓解跨平台GUI智能体的灾难性遗忘与行为冲突
📌 工作参考价值（4 点）
- 电商多端（APP/PC/小程序）自动化运营 Agent 可采用多教师在线蒸馏，避免不同平台操作惯例冲突，保留端侧特有行为模式，减少为每端单独维护模型的成本。
- 平台条件蒸馏通过环境信号动态路由选择特定教师，能使统一策略模型灵活适应多端环境，适合搜索推荐系统中跨端交互流程的自动化。
- 构建跨平台操作轨迹数据时，可借鉴 Uni-GUI 的收集策略（如多源采集、平台覆盖、操作可执行性过滤），提升训练数据质量与平台泛化性。
- 策略回放机制可迁移至电商 Agent 的持续学习中，防止新增端侧任务时旧端侧能力的灾难性遗忘。
越密集不等于越好：持续后训练中同策略自蒸馏的局限性
🧭 持续学习 · 自蒸馏 vs RL 优化
Centre for Artificial Intelligence and Robotics, HKISI, CAS · Institute of Automation, Chinese Academy of Sciences · University of Chinese Academy of Sciences · Nanjing University of Science and Technology
同策略自蒸馏在持续后训练中会加剧遗忘甚至崩溃，而GRPO等保守RL方法更稳健
📌 工作参考价值（4 点）
- 持续更新模型时避免密集自蒸馏：在电商搜索推荐场景，如果用LLM持续学习新品类或新意图，采用SDPO等密集自蒸馏会显著遗忘旧知识，应改用GRPO等更保守的on-policy RL方法。
- 监控参数与响应漂移：自蒸馏会导致更大的参数空间和输出分布漂移，可设置漂移阈值，一旦检测到骤变即回滚或降低学习率。
- 警惕格式退化：自蒸馏的token级监督会通过自我强化循环放大高频格式伪影（如固定模板、重复短语），在生成推荐理由或广告文案时易导致风格单一化，可引入多样性约束或温度调节。
- 同策略数据非万能：不要以为只用当前策略生成的数据就能稳定持续学习，需要结合重放缓冲或正则化手段保持旧任务能力。
SkillHone：基于持久化决策历史的持续Agent技能进化框架
🧭 Agent技能持续进化 · 决策历史持久化
Tencent Inc.
通过持久化决策历史与角色分离子代理实现Agent技能的持续进化，超越商业deep-research agent
📌 工作参考价值（4 点）
- 技能进化与搜索推荐系统结合：将技能看作搜索推荐中的策略、召回规则或排序配置，用 SkillHone 的持久化历史管理这些策略的迭代，避免无效回退，每次修改都可追溯其诊断依据与实证反馈，适用于广告出价策略动态调整、推荐模型在线更新。
- 角色分离子代理用于多智体协作：引入 diagnosis、revision、evidence 等子代理分工，可迁移到电商 Query 改写或搜索建议生成场景，一个代理诊断当前 query 性能短板，另一个根据历史修订记录提出新的改写方案，通过实践探针评估后合入主流程。
- 实践探针机制做离线评估：在推荐系统中可抽检历史曝光样本作为探针，每次技能更新后重跑探针并比对效果，实现低成本、可复现的离线迭代，比全量 A/B 实验更快反馈。
- 决策历史作为知识资产沉淀：主动记录 agent 的决策过程（如为什么使用某个召回通道、为什么排序公式这样调参），形成可检索的知识库，让后续模型或工程师快速理解历史优化逻辑，减少重复实验。
稳定恢复流形：持续学习中灾难性遗忘的几何原理
🧭 持续学习灾难性遗忘的几何分析
发现遗忘的知识保存在约 8 维低秩子空间，遗忘是几何可及性问题而非信息损毁。
📌 工作参考价值（4 点）
- 对电商推荐模型持续更新：旧知识未真正消失，可以通过低秩子空间访问，不必全量重训，可设计轻量适配器恢复旧任务性能，降低频繁全量更新的成本。
- 对 Agent 多任务学习：遗忘后通过主角度对齐就能大幅恢复性能，提示我们在微调 Agent 策略时保留旧策略的低维流形方向，可构建更稳健的持续学习系统。
- 对生成式推荐（如 Semantic ID 生成）：模型更新后旧 item ID 生成能力仍存于低维子空间，可恢复旧码本映射，避免冷启动和遗忘。
- 主要学术贡献，业务可借鉴点在于遗忘可逆性的认知转变，具体工程落地仍需进一步验证。
TailLoR：保护主成分的参数高效持续学习
🧭 参数高效持续学习 · 谱分解
Bitdefender, Romania
通过软谱惩罚将低秩适应引导至长尾奇异方向，缓解持续学习中的干扰与遗忘
📌 工作参考价值（4 点）
- 在电商推荐模型的持续更新中，用TailLoR替代标准LoRA，可将新任务对历史知识的干扰从主成分转移到长尾维度，有效缓解灾难性遗忘。
- 可直接将预训练权重的奇异基冻结为参考系，仅学习对奇异值矩阵的低秩更新，参数效率极高，适合部署于频繁迭代的推荐Agent。
- 软谱惩罚项可单独作为正则化技巧，融入现有LoRA微调流水线，强制模型利用未充分优化的长尾表示，提升多任务顺序学习能力。
- 该方法天然适配多域推荐场景（如不同商品类目），允许逐个域顺序学习而无需重训练所有数据，降低工程成本。
重新思考自进化LLM智能体的持续经验内化
🧭 Agent 自进化 · 经验内化 ★ 深度解读
中国人民大学高瓴人工智能学院 · 北京航空航天大学软件学院 · 美团
揭示经验内化在多轮自进化中的能力崩塌，从经验粒度、注入模式、内化策略三维度给出稳定方案
📌 工作参考价值（4 点）
- 经验抽象为原则：在电商导购、多步工具调用等Agent场景中，经验积累应提取可复用的决策原则与失败模式（原则级），而非保留具体域名、URL等轨迹细节（实例级），后者在多轮更新中迅速失效。
- 逐步注入经验：在训练Teacher模型时，根据当前交互状态动态选择相关经验（逐步注入），避免全局固定经验导致模型过早终止（如未搜索直接回答）。在长时任务中，该模式可降低“过早应答”率（本工作中从63%降至0%），保持后续迭代的经验使用能力。
- 使用离线策略蒸馏：多轮自进化时，建议从强教师（经验感知模型）直接生成并筛选高质量轨迹进行蒸馏（离线），而非从学生模型采样再纠正（在线）。离线蒸馏训练出的轨迹更短（平均2.5步 vs 在线21.9步），且性能迭代更稳定，避免性能崩塌。
- 监控经验使用能力：在迭代内部化后，应评估模型在无经验和带经验上下文时的表现差距。如果差距消失或带经验反而下降，说明模型丢失了利用经验池的能力，会破坏下一轮Teacher的监督质量，需调整注入模式或经验提取策略。
PEAM：通过经验内化将具身智能体记忆参数化
🧭 具身智能体经验参数化与持续学习 ★ 深度解读
Northwestern University · Northeastern University · South China University of Technology · Hong Kong Baptist University · Beijing Normal - Hong Kong Baptist University
将智能体经验从检索式记忆转为参数化技能，通过失败-纠正对比学习与隔离式的MoE-LoRA适配器实现持续巩固。
📌 工作参考价值（4 点）
- 经验内部化减少推理开销：在推荐/Agent场景中，可将高频技能或用户偏好直接固化到模型参数中（如LoRA适配器），避免每次推理时检索技能库或长上下文注入，可大幅降低延迟（实验中下降42%）和Token消耗（-85%）。
- 失败-纠正对比训练：利用失败与纠正后的轨迹对进行DPO训练，让模型不仅模仿成功行为，还能辨别纠正前后差异，此思路可迁移到对话Agent、推荐排序中：收集用户负反馈与修正后的正样本，构造对比学习信号。
- 按类别隔离的LoRA适配器防遗忘：在多任务/多领域场景中，为每个类别（如不同商品类目、不同Agent技能）分配独立的LoRA模块，物理隔离参数更新，可天然避免灾难性遗忘，无需复杂正则化。
- 自触发巩固机制：基于失败率统计检验自动决定何时更新模型，无需人工设定任务相关阈值，适合电商推荐等动态环境，根据实时表现自适应调整模型更新节奏。
SeqLoRA：持续多概念生成的双层正交适配方法
🧭 持续多概念扩散模型正交 LoRA 微调
Uppsala University · ETH Zurich
通过双层优化联合学习 LoRA 因子，在持续学习新概念时强制正交约束，最小化灾难性遗忘和组合干扰
📌 工作参考价值（4 点）
- 持续多任务 LoRA 微调范式：当需要在电商场景中不断引入新商品概念或新用户画像时，可借鉴 SeqLoRA 顺序微调而不遗忘旧知识，避免每次重新训练或复杂融合。
- 双层优化稳定子空间：底层更新 LoRA 基（A）保持跨任务共享，上层学习任务特定系数（B），并加入正交约束，适合推荐系统中多类目 Embedding 的增量学习，减少特征干扰。
- 正交正则化抗遗忘：在 Agent 多技能训练中，强制新技能 LoRA 与旧技能正交，可防止技能间干扰，提升持续学习效果。
- 残差能量最小化：理论表明最小化残差干扰能量比冻结基方法更优，可迁移到序列推荐或多轮对话的状态更新中，通过正则化残差保持历史信息。
探究数据时序性对大语言模型预训练的影响
🧭 时序数据预训练优化
Kyutai, Paris
通过预训练6B模型发现，按时序排列数据训练能显著提升模型的时间知识准确性，且不影响通用能力。
📌 工作参考价值（4 点）
- 时序数据组织：在电商搜索或推荐模型的持续预训练中，可将商品语料按发布时间排序，使模型隐式学习时间对齐的知识，提升对新品、季节性趋势的捕获能力，避免依赖频繁的增量微调。
- 评价协议设计：可借鉴提出时间敏感问答基准的思路，构建电商领域的时间相关评测集（例如“2023年夏季流行款式”对应正确季节），用于检测推荐系统或Agent的时间感知准确性。
- 训练效率权衡：实验表明按时序训练与普通打乱训练相比，在通用理解任务上表现相当，但知识保鲜度更高。对于需要低成本保持知识新鲜的业务，可直接采用时序预训练，无需额外的中期继续训练阶段。
- 负面发现启示：打乱顺序训练会让模型更擅长记忆旧数据，可能因为重复事实更多；在构建电商语料时，若希望模型更关注近期数据，应避免过度打乱，或结合时间加权采样。
TFGN：无需任务标签与回放的LLM级持续预训练架构
🧭 Training ★ 深度解读
Independent Researcher
提出一种内部架构叠加层TFGN，在无回放、无任务ID的条件下，实现LLaMA 3.1 8B等多尺度的近零灾难性遗忘与>99.59%的梯度正交性